Thị trấn Vôi được thành lập vào ngày 22 tháng 12 năm 1997 trên cơ sở điều chỉnh 335,87 ha diện tích tự nhiên và 4.560 người của xã Yên Mỹ.[1]

Trước khi sáp nhập, thị trấn Vôi có diện tích 3,41 km², dân số là 7.383 người, mật độ dân số đạt 2.165 người/km². Xã Phi Mô có diện tích 8,72 km², dân số là 9.472 người, mật độ dân số đạt 1.086 người người/km².

Ngày 21 tháng 11 năm 2019, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 813/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp xã thuộc tỉnh Bắc Giang (nghị quyết có hiệu lực từ ngày 1 tháng 1 năm 2020)[3]. Theo đó, sáp nhập toàn bộ diện tích và dân số của xã Phi Mô vào thị trấn Vôi.